N-GRPO: Embedding-Level Neighbor Mixing for Enhanced Policy Optimization
N-GRPO：嵌入级近邻混合增强策略优化
🧭 LLM 训练 · 策略优化 · 探索增强
Zhejiang University · Ant Group
通过语义近邻混合同一 token 的嵌入，在 GRPO 中注入多样性且保持语义一致，提升数学推理
📌 工作参考价值（4 点）
- RL 训练中的探索策略：在 LLM 微调（如推荐理由生成、对话策略、Agent 行动规划）时，使用语义近邻混合替代 token 级采样或随机噪声，可生成更多样但语义连贯的轨迹，缓解模式坍塌。
- 嵌入级扰动技巧：直接操作 token 嵌入而非离散 token，通过 k 近邻插值在连续空间内注入多样性，可迁移至生成式推荐中 Semantic ID 解码时的探索，或对话系统中多样性回复生成。
- 训练稳定性与效率：该方法避免了完全随机的嵌入扰动带来的语义崩溃，训练过程更稳定；工程实现上需预先构建语义近邻索引（如使用 FAISS），推理阶段可快速查表。
- 泛化能力：在分布外任务上也有效，适合电商场景中多变的商品描述和 query 改写，可作为后训练探索的即插即用模块。